Khi nghỉ hưu từ quân đội, Weizman gia nhập đảng Gahal cánh hữu. Ông là Bộ trưởng Giao thông vận tải trong chính phủ thống nhất của Levi Eshkol cho đến khi Gahal rời khỏi liên minh vào năm 1970. Weizman bỏ Gahal năm 1972, nhưng trở lại vào năm 1976, vào thời điểm đó nó đã trở thành Likud.

Năm 1977, ông trở thành Bộ trưởng Quốc phòng dưới Menachem Begin. Trong nhiệm kỳ của mình, Israel phát triển máy bay chiến đấu IAI Lavi và tiến hành chiến dịch Litani chống lại PLO ở miền Nam Lebanon. Trong quá trình phẫu thuật này, con trai của ông ta, Saulơ, bị chấn thương sọ từ một viên đạn súng bắn tỉa đã khiến ông rơi vào trạng thái sống thực vật.[6][7]

Sau khi Donald Neff viết một bài báo cho Tạp chí Time về một sự cố tại Beit Jala, nơi một trường học bị bao vây, các cánh cửa đóng lại và hộp chứa khí đốt bắn vào nó, Weizman đã có một ủy ban điều tra các tuyên bố Palestine đó là một chiến dịch của quân đội Israel chống lại thanh niên trong Bờ Tây dẫn tới việc nhiều người Palestine gãy tay chân và cạo đầu. Khi ủy ban xác nhận rằng câu chuyện Beil Jala là đúng, ông đã sa thải Thống đốc quân sự của Bờ Tây, Chuẩn tướng David Hagoel, vì ngược đãi người Palestine.[8]

Theo thời gian, quan điểm của Weizman đã trở nên rõ ràng hơn. Sau chuyến viếng thăm Anwar Sadat vào năm 1977, Weizman (người nói tiếng Ả Rập) phát triển mối quan hệ gần gũi với ông ta và các nhà đàm phán Ai Cập Boutros Boutros-Ghali và Hosni Mubarak. Sadat đã được trích dẫn như sau: "Weizman là nhân vật duy nhất của Israel mà tôi có thể giải quyết... Anh ấy là em trai của tôi." Các mối quan hệ này là một nhân tố quyết định trong các cuộc đàm phán, kết thúc vào năm 1978 của Hiệp định David, Một hiệp ước hòa bình với Ai Cập vào năm sau.[9]

Tháng 5 năm 1980, Weizman bỏ chính phủ. Ông đã cân nhắc việc thành lập một bữa tiệc mới với ông Moshe Dayan, dẫn đến việc ông lật đổ Likud. Trong bốn năm tiếp theo, ông đặt nền chính trị bị giữ lại và bước vào thế giới kinh doanh.

Năm 1984, ông thành lập một đảng mới, Yahad, giành 3 ghế trong cuộc bầu cử năm 1984. Đảng đã tham gia vào một chính phủ đoàn kết toàn dân, trong đó Shimon Peres và Yitzhak Shamir làm thủ tướng xoay quanh. Vào tháng 10 năm 1986, Yachad sáp nhập với Alignment, sau khi Mapam và Yossi Sarid rời đi. Từ năm 1984 đến năm 1990, Weizman là Bộ trưởng Bộ Ngoại giao và Bộ trưởng Bộ Khoa học và Công nghệ. Năm 1992, Tổ chức Alignment trở thành Công đảng của Israel.